Di peringkat akar umbi, Datuk Nazi dipilih sebagai Exco Pergerakan Pemuda UMNO Malaysia pada tahun 1978. Beliau kemudiannya dilantik sebagai Naib Ketua Pemuda UMNO pada tahun pada tahun 1993 sebelum memangku jawatan Ketua Pemuda UMNO mulai tahun berikutnya hingga 1996.[perlu rujukan]

Beliau juga pernah dilantik sebagai Pengerusi Biro Hal Ehwal Antarabangsa Pergerakan Pemuda UMNO Malaysia mulai tahun 1986 hingga 1996 dan Pengerusi Pemuda Barisan Nasional Malaysia dari tahun 1990 hingga 1994. Selain itu, beliau juga dilantik sebagai Ahli Majlis Tertinggi UMNO dari tahun 1990 sehingga sekarang.

Pengalaman beliau sebagai Ahli Parlimen bermula setelah memenangi kerusi Parlimen Chenderoh atas tiket Barisan Nasional pada Pilihan Raya Umum Malaysia 1995 yang kemudiannya berjaya dipertahankannya pada penggal berikutnya, (1999-2004). Selain itu, beliau telah dilantik sebagai Senator Dewan Negara pada tahun 1991 hingga 1995.

Pada pilihan raya umum ke-11, beliau telah beralih ke kerusi Parlimen Padang Rengas hasil daripada persempadanan semula oleh Suruhanjaya Pilihan Raya (SPR). Beliau telah berjaya memenanginya setelah menewaskan calon Parti Keadilan Nasional, Mohd Zolkafli bin Yahaya dengan kelebihan 4772 undi. Beliau telah mendapat 9214 undi manakala lawannya memperolehi 4442 undi. Setelah kemenangannya itu, beliau telah dilantik sebagai Menteri Di Jabatan Perdana Menteri yang memantau dan mengelolakan aktiviti Parlimen Malaysia. Pada 17 September 2008, beliau mengisi portfolio hal-ehwal undang-undang atau 'de-facto Law Minister' apabila Senator Zaid Ibrahim meletak jawatan pada 15 September 2008 kerana tidak setuju dengan isu ISA.[1]

Beliau pernah dilantik sebagai pengerusi MARA dari 17 Mac 1993 hingga 23 Julai 1995, Timbalan Menteri Di Jabatan Perdana Menteri mulai 1995 hingga 1999 dan Timbalan Menteri Kewangan II sejak 1999 hingga berlakunya pembubaran Kabinet menjelang pilihan raya umum pada bulan Disember 1999. Beliau kemudiannya dilantik sebagai Menteri Pembangunan Usahawan hingga 2004.

Dalam pilihan raya umum ke-12 pada 2008, beliau mempertahankan kawasannya apabila bertanding menggunakan tiket Barisan Nasional di kawasan parlimen Padang Rengas, Perak. Beliau seterusnya mempertahankan kerusi itu pada pilihan-pilihan raya umum seterusnya, yakni pada 2013 dan 2018.